Smk berdiri pada tahun 2012 pada masa kepemimpinan KH. Abdul Mannan Muntaha dari hasil musyawarah alumni Pps. Nurul Huda melihat perkembangan zaman semakin modern dan global. Yayasan Al-Muntahy awalnya telah mengelola lembaga pendidikan lainnya yaitu PAUD An Nur, TK An Nur, MI An Nur, MTs An Nur, dan MA An Nur.

Disadari pesatnya perkembangan teknologi mendesak masayarakat untuk ikut andil di dalamnya supaya tidak ketinggalan zaman. Dari hal itu para alumni mengadakan musyawarah agar membentuk sebuah lembaga yang dapat menciptakan keluaran sekolah pintar dalam dunia IT maka dibentuklah smk sesuai dengan kebutuhan masyarakat dengan kompetensi keahlian Teknik Komputer dan Jaringan (TKJ). 

                Pada mulanya nama smk adalah SMK ANNUR namun, setelah smk beroprasi selama setengah tahun akhirnya dirubah dengan nama SMK AN NUR AL MUNTAHY setelah mendapat rekomendasi dari diknas dan ditashih oleh KH. Imam Ubaidillah karena terdapat kesamaan nama smk di kabupaten Sampang. SMK AN NUR AL MUNTAHY mendapat ijin operasional pada tanggal 5 Januari tahun 2012 dengan nomor: 421.5/34/434.101/2012 ditandatangani oleh kepala diknas setempat.

Tahun 2012 smk bertempat di lab komputer dan lab. bahasa milik yayasan. Pada tahun pertama penerimaan siswa baru 2012/2013 smk mendapat kepercayaan dengan perolehan siswa sebanyak 33 dengan total pendaftar 36. Tahun berikutnya 2013/2014 mendapat 50 siswa dengan pendaftar 60. Melihat banyaknya siswa yang ingin mengenyam pendidikan di smk maka semua pelaku berencana mendirikan gedung baru supaya proses belajar mengajar lebih kondusif. Berkat kerja keras dan lobi-lobi khusus akhirnya pada tahun 2013 mendapat bantuan gedung sebanyak 5 lokal dengan judul rehab dan dibangun dekat sungai Dhungke’. Tahun yang sama TK Annur mendapat bantuan dua gedung dan rencananya akan dialokasikan ke smk.

Tahun 2015 mendirikan program keahlian baru yaitu Teknik Sepeda Motor (TSM)